Matryoshka Hash Representations for Model-Aware Compact Semantic Retrieval
模型感知紧凑语义检索的 Matryoshka 哈希表示
🧭 嵌套哈希压缩 · 语义检索索引 ★ 深度解读
The Chinese University of Hong Kong, Shenzhen
两级训练哈希码，分离全宽训练与前缀组织，实现8/16/32字节嵌套二进制码在零样本检索上全面超越PQ/JPQ
📌 工作参考价值（4 点）
- 在向量召回/RAG 索引中，存储成本敏感时可采用 MHR 两阶段训练：先训练全宽 binary code 保证排序质量，再冻结编码器训练零初始化残差适配器让前缀可搜索，避免直接多前缀联合训练的跷跷板效应。
- 查询侧保留连续 logits、文档侧 hard sign 的不对称打分在检索质量与存储间取得平衡，并可映射到 FAISS IndexPQFastScan 的 analytic LUT 实现约 8.7× 加速；电商商品 embedding 检索可借鉴，尤其 CPU 服务。
- 嵌套前缀码可作为一个通用压缩 payload 在 IVF、HNSW/LEANN 剪枝、粗排过滤中复用，无需按不同字节预算重编码 corpus；可在推荐系统召回/粗排阶段用 8/16/32 字节嵌套码做自适应候选筛选，再对少量候选 full-precision rerank，接近浮点效果。
- 源域训练的 model-aware discrete code 在零样本域迁移上优于 reconstruction-based PQ/OPQ，说明用业务点击/成交等排序信号训练离散码比重建误差更值得投入；推荐场景可替换 PQ 作为 drop-in 压缩。